Trước kia đây là lãnh thổ của nước Phù Nam và Chân Lạp.Vào thế kỷ XVII, Nam Kỳ là vùng đất hoang sơ, được Chúa Nguyễn ở Đàng Trong khai phá. Một số quan lại, tướng tá nhà Minh sau khi chống nhà Thanh thất bại, trốn sang Việt Nam được Chúa Nguyễn cho khai phá vùng này. Một nhóm khoảng 5000 người Hoa do Dương Ngạn Địch và Trần Thượng Xuyên cầm đầu vào khai khẩn vùng Mỹ Tho, Biên Hòa, một nhóm khác do Mạc Cửu cầm đầu tiến vào tận Hà Tiên khai khẩn.

Năm 1620, Chúa Chúa Sãi (Nguyễn Phước Nguyên) trấn thủ hai xứ Thuận Hóa, Quảng Nam ngừng nộp thuế cho chính quyền Lê-Trịnh. Năm 1627, Chúa Trịnh Tráng mới sai quan vào Thuận Hóa đòi tiền thuế. Chúa Sãi tiếp sứ nhưng không chịu nộp thuế. Tháng 3 năm 1627, chúa Trịnh mang quân đi đánh họ Nguyễn. Sự kiện này đánh dấu sự chia tách hoàn toàn cả về lý thuyết và thực tế của xứ Thuận Quảng tức Đàng Trong của Chúa Nguyễn với Đàng Ngoài của Chúa Trịnh. Nó cũng tạo ra thời kỳ Trịnh-Nguyễn phân tranh kéo dài 45 năm, từ 1627 đến 1672, với 7 cuộc đại chiến của 2 bên. Sau đó hai họ Trịnh, Nguyễn ngừng chiến, lấy sông Gianh làm ranh giới chia cắt lãnh thổ, miền Nam sông Gianh thuộc quyền chúa Nguyễn, được gọi là Đàng Trong.

Năm 1859, Pháp đánh chiếm thành Gia Định, mở đầu cuộc xâm lược đất Việt Nam.

Năm 1862, ngày 13 tháng 4, triều đình Huế cắt 3 tỉnh miền Đông Nam Kỳ (Biên Hòa, Gia Định và Định Tường) nhượng cho Pháp.

Năm 1867, Pháp đơn phương tuyên bố toàn bộ 6 tỉnh Nam Kỳ là lãnh địa của Pháp. Từ đó, Nam Kỳ được hưởng quy chế thuộc địa, với chính quyền thực dân, đứng đầu là một Thống đốc người Pháp.

Hiệp ước Quý Mùi (25 tháng 8 năm 1883) nhập thêm tỉnh Bình Thuận vào Nam Kỳ (thuộc địa Pháp) coi như trừ số tiền bồi thường chiến phí còn lại mà triều đình Huế chưa trả hết, nhưng năm sau, Hiệp ước Giáp Thân (6 tháng 6 năm 1884) lại trả tỉnh Bình Thuận về cho Trung Kỳ.

Năm 1887, Nam Kỳ trở thành một vùng lãnh thổ nằm trong Liên bang Đông Dương. Năm 1933, quần đảo Trường Sa sáp nhập vào Nam Kỳ thuộc Pháp.

Năm 1940, Đế quốc Nhật Bản chiếm Nam Kỳ từ tay Pháp. Tháng 3 năm 1945 Thống sứ Nhật Nashimura đổi Nam Kỳ thành Nam Bộ.

Mãi đến năm 1945, thời Đế quốc Việt Nam với chính phủ Trần Trọng Kim tuyên bố sáp nhập Nam Kỳ lại thành một bộ phận của Đế quốc Việt Nam. Sau Cách mạng tháng Tám năm 1945, nước Việt Nam Dân chủ Cộng hòa thành lập. Ủy ban hành chính lâm thời Nam Bộ, hay Lâm ủy Nam Bộ, do chính quyền mới lập ra, đã tiếp quản vùng đất này. Việt Nam Dân chủ Cộng hòa cũng xóa bỏ việc phân chia Bắc-Trung-Nam Kỳ của Pháp, tuyên bố nước Việt Nam là một quốc gia thống nhất.

Ngày 23 tháng 9 năm 1945, chưa đầy một tháng sau khi độc lập, Pháp đã nổ súng gây chiến ở Sài Gòn rồi mở rộng đánh chiếm Nam Bộ. Pháp đã lập ra thể chế Nam Kỳ quốc hòng tách khu vực này ra khỏi nước Việt Nam Dân chủ Cộng hòa.

Không đánh bại được Việt Minh, Pháp phải dùng "giải pháp Bảo Đại", thành lập chính phủ Quốc gia Việt Nam vào năm 1949. Ngày 22 tháng 5 năm 1949, Quốc hội Pháp chính thức bỏ phiếu thông qua việc trao lãnh thổ Nam Bộ cho Quốc gia Việt Nam quản lý về hành chính.

Sau năm 1975, danh xưng này không còn được sử dụng trong cách văn bản hành chính hoặc báo chí (trừ khi nói về sự kiện hoặc địa danh lịch sử).